Alan Rusbridger ist ein kluger Mann. Der frühere Journalist hat als Chefredakteur den britischen „Guardian“ von einem netten, wenig gelesenen Intellektuellenblatt zur wichtigsten englischsprachigen Nachrichtenquelle im Internet gemacht. Unter Rusbridger veröffentlichte der „Guardian“ weltbewegende Geschichten, nicht zuletzt war es das erste Medium, das über die NSA-Enthüllungen Edward Snowdens berichtete.
Rusbridger ist einer von mehreren prominenten Namen in Facebooks neuem „Oversight Board“, einem Aufsichtsgremium, das die freie Meinungsfreiheit bei heiklen Moderationsentscheidungen auf Facebook und Instagram schützen soll. Die dänische Ex-Premierministerin Helle Thorning-Schmidt ist dabei, ebenso die jemenitische Friedensnobelpreisträgerin Tawakkol Karman.
Facebook kündigte am Mittwoch die ersten 20 Mitglieder des neuen Boards an, viele davon sind Jura-Professorinnen und Juristen. Weitere 20 Mitglieder sollen noch dazukommen. Der Konzern verspricht eine Zusammensetzung aus Mitgliedern aus allen Weltregionen, wenn auch mit nordamerikanischen Überhang. Unterstützt durch ein 130-Millionen-Dollar-Budget handelt es sich wohl um das fachlich beste Gremium, das für Geld zu haben ist.
Rusbridger betont, er habe sich nach reiflicher Überlegung entschieden, Teil des Boards zu werden. Dieses stelle eine bessere Alternative zu staatlichen Eingriffen dar. „Staatliche Regulierung der Meinungsfreiheit ist fast immer problematisch“, schreibt der Ex-Chefredakteur, der einem College an der Universität Oxford vorsteht. „Die derzeitigen Regime in Ungarn, Russland, Polen, Pakistan, Brasilien oder der Türkei – um nur einige zu nennen – würden Facebook liebend gerne ‚regulieren’. Wir können ahnen, was dabei verloren gehen würde.“
Die Ankündigung bedeutet einen Richtungswechsel für Rusbridger, der noch vor zwei Jahren bei einem Journalismuskongress die Vertreter:innen des Konzerns als „Grinsegesichter“ verhöhnte.
„Entscheidungen transparent und verbindlich“
Angekündigt hatte Facebook die Schaffung das Oversight Board bereits im November 2018. Gründer Mark Zuckerberg schrieb damals in einem Facebookpost von einem „unabhängigen Gremium, dessen Entscheidungen transparent und verbindlich sein werden.“ Also eine Art Verfassungsgericht, das viele der tückischen Fragen grundsätzlich entscheiden soll, die Facebooks Moderator:innen täglich im Sekundentakt lösen müssen.
Facebook beschäftigt global mehr als 15.000 Menschen, um die Einhaltung seiner Regeln zu überwachen. Vielfach handelt es sich um schlecht bezahlte Beschäftigte von externen Firmen in Ländern des globalen Südens, etwa auf den Philippinen. Sie müssen hunderte Entscheidungen pro Tag treffen, etwa über die Löschung von haarsträubenden Inhalten, bis hin zu Enthauptungsvideos, alles binnen von Minuten.
Nutzende können nun bald gegen Entscheidungen des Konzern Berufung einlegen, etwa wenn ihre Posts gelöscht oder ihre Konto gesperrt wird. Auch Facebook selbst kann Fälle an das Board schicken. Das Gremium kann dann entscheiden, ob es sich der Fälle annimmt. Gegenstand der Entscheidungen ist die Auslegung von Facebooks Gemeinschaftsstandards – also das, was bei Facebook erlaubt ist und was nicht.
Nippel verboten
Facebooks Regeln decken sich vielfach mit gesetzlichen Vorgaben, etwa sind Hassrede und Hetze gegen Minderheiten verboten. Einige Bestimmungen sind hingegen eher als Rücksichtnahme auf prüdere Sitten in Teilen der USA zu werten, etwa das Verbot, Brustwarzen von Frauen zu zeigen.
Facebook passt seine Regeln immer wieder an. Im Winter 2018 verbot Facebook unter Eindruck eines neues US-Gesetzes gegen Menschenhandel jede Form der „sexuellen Anbahnung“. Zuletzt irrlichterte der Konzern um seine eigene Entscheidung, Äußerungen von wichtigen politischen Figuren wie dem US-Präsidenten Donald Trump auch dann nicht zu löschen, wenn sie offenkundig falsch oder irreführend sind.
Ein Beispiel für die Entscheidungen, die sich bei der Moderation von Inhalten stellen, lieferte Facebook am selben Tag, an dem es die Mitglieder des Oversight Board ankündigte. Das soziale Netzwerk teilte die Entfernung von Gruppen, Seiten und Konten mit, die die QAnon-Verschwörungstheorie verbreiteten.
Als Begründung nennt Facebook deren „koordiniertes unauthentisches Verhalten“ – dabei handelt es sich um eine sprachliche Formel, mit der der Konzern Fake-Konten mit problematischen Inhalten identifiziert. In der Vergangenheit waren das häufig angebliche Desinformationskampagnen von Staaten. Was aber QAnon von anderen toxischen Verschwörungstheorien trennt, die weiter auf Facebook kursieren, etwa denen der Reichsbürger, das muss der Konzern noch klären.
Was heißt hier verbindlich?
Kritiker:innen weisen von Beginn an auf die Schwächen des Gremiums hin. Eine Schlüsselfrage ist seine Unabhängigkeit. In der Charta des Oversight Board heißt es, das Gremium werde unabhängige Entscheidungen treffen, der Konzern verpflichtet sich dazu, sich an diese zu halten. Die Mitglieder sollen zudem von Facebook alle nötigen Informationen erhalten, um die Entscheidung treffen zu können.
Facebook schränkt das Board an entscheidenden Stellen ein. In Artikel 4 der Charta zur Umsetzung von Entscheidungen heißt es, Facebook werde diese prompt umsetzen, es sei denn, die Umsetzung könnte gegen Gesetze verstoßen. Das gibt dem Konzern Spielraum bei der Interpretation der Vielzahl an Rechtsnormen, denen Inhalte auf Facebook in verschiedenen Jurisdiktionen der Welt unterliegen.
Bedeutend ist auch die Einschränkung, die die Charta bei identischen Inhalten macht – also bei der Frage, inwiefern Entscheidungen einen Präzedenzfalles schaffen. In der Charta heißt es dazu, Facebook „wird Maßnahmen ergreifen, indem es analysiert, ob es technisch und operativ machbar ist, die Entscheidung des Gremiums auch auf diesen Inhalt anzuwenden“. Das gibt Facebook ausreichend Manövrierraum, um unliebsame Entscheidungen im Zweifel umzubiegen.
Fragezeichen gibt es auch bei der Praxistauglichkeit des Gremiums. Seine nuancierten Entscheidungen seien häufig zu kompliziert für den Alltag der zehntausenden Content-Moderatoren bei Facebook, sagt der frühere Facebook-Sicherheitschef Alex Stamos. „Nun, ich liebe Juraprofessoren. […] Einige meiner besten Freunde sind Juraprofessoren. Aber ich weiß wirklich nicht, wie sie sich an die Realitäten großflächiger Inhaltemoderation anpassen werden“, unkte Stamos auf Twitter.
Komplexe Urteile würden vermutlich häufig „an der harten Brandung der Realität zerschellen“, glaubt der frühere Facebook-Mitarbeiter. Denn Abwägungen über freie Rede würden in der Praxis „von Maschinen getroffen werden, die von Menschen überwacht werden, die 30–60 Sekunden Urteilsvermögen auf einen ‚Fall’ anwenden können, und nicht Wochen wie ein Richter.“
Ähnliche Kritik übt auch der deutsche Jurist
Nur Teil der Lösung
Der UN-Sonderberichterstatter für freie Meinungsäußerung, David Kaye, wirft eine noch grundsätzlichere Frage auf: Soll ein Social-Media-Konzern überhaupt Kontrolle über Fragen der freien Meinungsäußerung besitzen? Kaye betont, Facebooks Selbst-Regulierung könne nur Teil der Lösung sein, nicht die Lösung an sich.
Tatsächlich füllt Facebook mit seinem Gremium eine Leerstelle auf, die demokratisch legitimierte Staaten im Umgang mit sozialen Medien als Foren der freien Meinungsäußerung gelassen haben. Was im Netz gesagt werden darf, ist klar: Es gelten die selben Regeln off- wie online, das betonen europäische Politiker:innen seit Jahren. Immer wieder gab es Versuche, die Durchsetzung dieser Regeln zu erwirken, etwa durch das deutsche NetzDG, das nur zwei Jahre nach Inkrafttreten schon wieder überarbeitet wird.
Offen bleibt aber die Frage: Wie läuft der Entscheidungsprozess darüber ab, die Moderation der Diskussion? Hierbei überlassen bisherige Regulierungsversuche das Feld großteils den Plattformen. Klar, es mag eingeworfen werden, dass Facebook eine private Plattform ist. Doch mit weltweit drei Milliarden Nutzenden von Facebook, Instagram und WhatsApp bildet die Plattform längst einen öffentlichen Raum, in dem Meinungsfreiheit und andere Grundrechte geschützt werden müssen.
Gremien wie Facebooks neues Verfassungsgericht, wie transparent es auch sein mag, fehlen die demokratische Legitimation, die echte Gerichte von Rechtsstaaten haben. Die Entscheidung, was legitime Rede ist und was nicht, sollte letztlich von Leuten getroffen werden, die nach rechtsstaatlichen und demokratischen Prinzipien ausgewählt wurden, in einem ebenso abgelaufenen Prozess. Und nicht in einem selbstgeschaffenen Tribunal von Facebooks Gnaden, auch wenn noch so viele schlaue Jurist:innen daran teilnehmen.
Einen gesetzlichen Rahmen für die Inhaltemoderation auf Plattformen könnte ein neues EU-Gesetz schaffen, der Digital Services Act, den die Kommission Ende diesen Jahres vorlegen will. Noch ist allerdings unklar, ob er tatsächlich solche Regeln beinhalten wird. Auch dürfte es bis zu seiner Umsetzung noch Jahre dauern. Bis dahin muss Facebooks globale Nutzer:innenschaft mit Rusbridger, Thorning-Schmidt und Co. Vorlieb nehmen.